Tái tổ chức quân đội chính quy

Sau khi quân Pháp đầu hàng tại Điện Biên Phủ, tháng 7 năm 1954, Hoàng Văn Thái được triệu tập về Việt Bắc để đảm nhận chức vụ Tổng Tham mưu trưởng thay cho tướng Văn Tiến Dũng chuyển sang nhận nhiệm vụ Trưởng Đoàn Đại biểu Quân đội Nhân dân Việt Nam tham dự Hội nghị Trung Giã. Ông giữ nhiệm vụ này cho đến hết năm 1954, đến khi tướng Văn Tiến Dũng thôi làm Trưởng đoàn Quân đội Nhân dân Việt Nam trong Ủy ban liên hiệp đình chiến trung ương và trở lại chức vụ Tổng Tham mưu trưởng.

Sau khi tiếp quản miền Bắc, ông là một trong những người quan trọng nhất quyết định công tác tái tổ chức quân đội chính quy. Ngày 10 tháng 4 năm 1958, ông được bổ nhiệm kiêm chức Chủ nhiệm Tổng cục Quân huấn theo Sắc lệnh 61/SL của Chủ tịch nước Việt Nam Dân chủ Cộng hòa,[19] đảm nhậm việc "...chỉ đạo công tác huấn luyện quân sự đối với cán bộ và chiến sĩ các binh chủng trong toàn quân, chỉ đạo công tác các nhà trường của quân đội và chỉ đạo công tác huấn luyện các lực lượng hậu bị."[20]

Ngày 31 tháng 8 năm 1959, ông được thăng quân hàm Trung tướng[21] (ông thực ra đã được phong vượt cấp Thượng tướng nhưng ông từ chối[22]), trở thành một trong bốn Trung tướng được phong đợt 2.[23] Năm 1960, ông được bầu vào Ban Chấp hành Trung ương Đảng Cộng sản Việt Nam khoá III, được phân công kiêm thêm chức vụ Chủ nhiệm Ủy ban Thể dục thể thao đầu tiên của Chính phủ (tương đương chức vụ Bộ trưởng Bộ Văn hóa, Thể thao và Du lịch hiện nay). Năm 1961, ông được cử đi học ở Học viện quân sự cấp cao Bắc Kinh (Trung Quốc).

Tăng cường cho mặt trận miền Nam

Tháng 3 năm 1965, quân Mỹ đổ bộ vào Đà Nẵng, đánh dấu sự kiện khởi đầu của chiến lược Chiến tranh cục bộ với sự tham chiến trực tiếp của quân đội Mỹ tại miền Nam Việt Nam. Đánh giá mức độ nghiêm trọng của động thái này, Bộ Tổng Tư lệnh Quân đội Nhân dân Việt Nam quyết định cử một trong những cán bộ cao cấp nhất để nắm giữ địa bàn sát cận giới tuyến là Quân khu V. Tháng 8 năm 1966, Trung tướng, Phó Tổng tham mưu trưởng Hoàng Văn Thái được bổ nhiệm làm Tư lệnh kiêm Chính ủy Quân khu V.[24]

Với những kinh nghiệm thu được tại Quân khu V, năm 1967, sau khi Mỹ tăng cường số quân tại miền Nam Việt Nam lên gấp nhiều lần, Trung ương Đảng và Bộ Tổng tư lệnh Việt Nam Dân chủ Cộng hòa quyết định cử ông vào Nam giữ chức Phó Bí thư Trung ương Cục, Phó Bí thư Quân Ủy Miền, kiêm Tư lệnh Quân Giải phóng miền Nam với bí danh Mười Khang.

Trong thời kỳ này, Hoàng Văn Thái là tư lệnh Chiến dịch Lộc Ninh (27/10 – 10/12/1967); Tư lệnh chiến dịch Tây Ninh (17/8 – 28/9/1968).[25] Ông là người chỉ đạo và chỉ huy trực tiếp lực lượng Quân Giải phóng miền Nam trong nhiều chiến dịch quan trọng như sự kiện Tết Mậu Thân, cũng như Chiến dịch Xuân hè 1972, là người chỉ huy chính và trực tiếp tại chiến trường miền Nam trong toàn bộ thời gian quân đội Mỹ tham chiến.

Đảm nhiệm Thứ trưởng Bộ quốc phòng

Sau khi quân Mỹ rút khỏi Việt Nam, tháng 1 năm 1974, Hoàng Văn Thái được triệu hồi ra Bắc nhận chức vụ Thứ trưởng Bộ Quốc phòng, kiêm Phó Tổng Tham mưu trưởng Thứ nhất, Ủy viên thường vụ Đảng ủy Quân sự Trung ương. Tháng 4 cùng năm, ông được thăng quân hàm Thượng tướng.

Là một chỉ huy giàu kinh nghiệm trên chiến trường miền Nam, Hoàng Văn Thái từng được phân công vai trò Phó Chủ tịch thứ nhất Hội đồng chi viện, tập trung chỉ đạo chi viện kịp thời cho các chiến trường. Với chức vụ Phó Tổng Tham mưu trưởng Thứ nhất, ông thực tế đảm nhiệm vai trò Tổng Tham mưu trưởng lần thứ 3, thay cho tướng Văn Tiến Dũng bí mật vào Nam để trực tiếp chỉ huy chiến trường.

Tư lệnh các chiến dịch trong Chiến tranh Việt Nam

Các chiến dịch lớn trong chiến tranh Việt Nam ông đã tham gia với tư cách là Tư lệnh chiến dịch bao gồm:

1. Chiến dịch Lộc Ninh (27 tháng 10 – 10 tháng 12 năm 1967)
2. Sự kiện Tết Mậu Thân (30 – 31 tháng 1 năm 1968)
3. Chiến dịch Tây Ninh (17 tháng 8 – 28 tháng 9 năm 1968)
4. Chiến dịch Xuân hè 1972 (chiến dịch tổng hợp) (năm 1972)